人工智能产业数据抓取及应用的法律隐患

昨天的推送中（人工智能产业发展亟需立法保驾护航），我们从宏观层面给大家梳理了有关人工智能产业的立法问题。今天我们着重讨论一下人工智能产业兴起的基础要素——数据的相关法律问题。

人工智能产业近几年发展得如火如荼，各类相关企业层出不穷。实际上人工智能产业的兴起是“算法+大数据”的共同结果。算法即一系列解决问题的清晰指令，而数据则是算法处理的对象。对海量数据信息的抓取与学习在让人工智能越来越“聪明”的同时，数据信息泄露或被不法分子利用的风险也在不断提升。2018年万豪旗下喜达屋集团就有5亿客户个人信息被泄露，谷歌也曾因为违反欧盟《通用数据保护条例》（下称“GDPR”）的相关规定被罚款5000万欧元。可见，作为驱动人工智能产业全面兴起的基础要素之一，数据在被抓取、运用以及传输的过程中，相关的法律红线究竟在哪里是无法回避且亟待解决的问题。

一、人工智能产业数据相关立法现状

世界各国对人工智能产业数据问题均给予了高度重视。欧盟2018年出台了GDPR、《非个人数据在欧盟境内自由流动框架条例》等相关法律法规，欧洲政治战略中心还发布了《人工智能时代：确立以人为本的欧洲战略》，对于欧洲人工智能发展面临数据短缺和数据偏见等问题，提出扩大人工智能系统所需数据源，设计利于欧洲数据收集、使用和共享的监管方案，确保GDPR个人数据保护要求实施的建议。美国亦是通过了《加州消费者隐私法案》、《开放政府数据法案》、《澄清境外数据合法使用法案》（下称“CLOUD法案”）等一系列法案，并于2019年2月签署《人工智能倡议》发展规划，进一步指示加强联邦政府、机构的数据、算法和计算机处理资源对人工智能研发人员和企业的开放。

我国也相继出台了一系列相关法律法规为人工智能产业的发展保驾护航。现阶段我国已经颁布了《中华人民共和国网络安全法》、《电子商务法》、《互联网用户公众账号信息服务管理规定》、《信息安全技术个人信息安全规范》等众多法律法规，此外今年4月1日，GB/T 36618-2018《信息安全技术 金融信息服务安全规范》、GB/T 36626-2018《信息安全技术 信息系统安全运维管理指南》等17项信息安全国家标准也正式实施。

总体而言，各项立法都在不断向精细化发展，例如刑法针对非法出售或提供公民个人信息以及非法获取公民个人信息的行为规定了“侵犯公民个人信息罪”；2017年两高《关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》明确个人信息定义、细化行为方式、明确量化标准；2018年最高检《检察机关办理侵犯公民个人信息案件指引》明确证据要求、细化逮捕要求，统一了司法实践中的认识问题等。关于特殊主体，《儿童个人信息网络保护规定》将于2019年10月1日起正式生效。工业和信息化部《电信和互联网用户个人信息保护规定》则进一步明确电信业务经营者、互联网信息服务提供者收集、使用个人信息的规则和信息安全保障措施。

二、人工智能产业数据相关困境

虽然已有了上述一系列法律法规及国家标准的保驾护航，但是人工智能产业因其特殊性，在数据方面仍然存在诸多困境。例如数据抓取及分析学习阶段会面临数据权属问题、训练数据污染问题；运用中又会面临过度采集、智能窃取、深度伪造、数据跨境等等一系列问题，此处主要选取两个方面加以详述。

1. 现有规定过于原则化，数据保护“九龙治水”

目前我国许多具有强制力的法律规定过于原则化，没有配套的实施细则。这种规定的不明确会导致企业不知道应该怎么做，专业的法律人士也不知道应该怎么做。

例如《网络安全法》中对个人信息定义为“是指以电子或者其他方式记录的能够单独或者与其他信息结合识别自然人个人身份的各种信息，包括但不限于自然人的姓名、出生日期、身份证件号码、个人生物识别信息、住址、电话号码等”。

《最高人民法院、最高人民检察院关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》以及《信息安全技术 个人信息安全规范》中也使用了类似表述，即“单独或结合可识别”标准。

但是在实际操作中对于“结合可识别”的程度应当如何把控呢？使用他人手机或邮箱申请账号的情况非常常见，此时数据收集者收集到的信息又能算作是个人信息么？以及个人信息的权利人是谁呢？是收集者、是信息主体、还是国家或者其他主体？并且很多情况下仅规定相关主体有保障数据信息安全的义务，但是却没有规定违背义务会导致何种后果。

此外，纵观人工智能数据相关法律法规，涉及到公安部门、国家网信办、工业和信息化部、市场监督局、全国信息安全标准化技术委员会等非常多部门，相互之间职能还存在交叉，仿若“九龙治水”。这种混乱的局面会导致关于数据问题到底红线在哪里，政府不知道，企业不知道，老百姓也不知道的局面。

2. 数据跨境风险颇多

由于数据自身特性，人工智能在数据抓取及传输过程中非常有可能涉及到数据跨境传输的问题。一方面，从数据入境角度看，这会涉及其他国家的法律法规。目前许多域外立法能够实现“长臂管辖”，即即便企业设在其他国家也可能受到其管控。

例如上文提到的GDPR，其管辖范围并不仅限于成员国内部，而是只要在欧盟设立办公室或者企业在提供的产品或服务的过程中处理欧盟境内个体的个人数据，都会受到该条例的规制，并且还规定了极高的罚款数额。美国针对电子通讯服务或远程计算机服务提供者的CLOUD法案，适用范围亦是无论电子数据是否存储在美国境内。为美国执法机构访问在美国境内运营的企业存储在海外的用户数据提供明确授权，促使数据管辖权和跨境流动争议进一步加大。若不遵守美国法院依法发出的搜查令，拒绝提供所要求的信息，可能构成藐视法庭罪而受到处罚。但是在目前阶段，我国的大部分企业还没有这方面的意识或者没有给予足够的重视。

另一方面，从数据出境角度看，《中华人民共和国网络安全法》第37条规定“关键信息基础设施的运营者在中华人民共和国境内运营中收集和产生的个人信息和重要数据应当在境内存储。因业务需要，确需向境外提供的，应当按照国家网信部门会同国务院有关部门制定的办法进行安全评估；法律、行政法规另有规定的，依照其规定”。此外，《个人信息和重要数据出境安全评估办法（征求意见稿）》中详细规定了网络运营者应报请行业主管或监管部门组织安全评估，以及数据不得出境的相应情形。《中华人民共和国网络安全法》配套的《关键信息基础设施安全保护条例》、《信息安全技术 数据出境安全评估指南》等亦都在制定过程中。可见，对于数据出境我国也是有相关规定的，只是现在尚有不少仍处在征求意见稿等制定进程中，亦应当给予足够重视。

三、大数据时代，人工智能产业发展之建议

1.尽快通过立法、司法实践划定数据领域的法律红线

各地可以在《中华人民共和国网络安全法》的实施细则、《数据安全法》出台之前，结合人工智能产业发展的实际情况，结合现已公开的例如《个人信息出境安全评估办法》（征求意见稿）先行制定地方性法律法规或政策规则，将人工智能产业数据抓取、运用、传输的红线画出来。或者通过司法判例的形式，及时的划定各主体间数据权利与义务，从而让企业在面临可能涉及数据运用、数据安全等内容的业务时，能够更为清晰的知道哪些事情可以做，哪些事情不可以做，避免类似互联网金融的悲剧重演。 例如2018年8月杭州互联网法院宣判全国首例大数据产品不正当竞争纠纷案，即明确用户对脱敏处理后的数据不享有财产权；同月，最高人民法院发布第一批涉互联网典型案例，体现司法实践对个人信息保护一般采取的隐私权保护路径等。

2. 企业应当强化数据安全的法律意识

这种法律意识的提高包括认识到数据安全应上升到国家安全的层面，对数据的抓取、运用及传输应尽量小心谨慎。企业应当了解各个国家或地区的法律法规和相关规则，尽量避免因没有做足功课而在不知情的情况下违法违规，进而面临巨额罚款的情况。此外，虽然中国目前尚未达成任何双边或多边数据跨境流通协议但切不可忽视，例如欧洲-美国“隐私盾”，欧盟-日本“充分性认定”等。因此企业应提高自身法律意识，做到防患于未然。

3. 行业协会应当发挥自身作用

欧盟GDPR采用了行业主导、政府适度干预的理念,市场从微观层面发挥自我管理之基础性功能。我国目前个人信息保护领域的行业自律管理尚处于初创阶段,理应在立法先行基础上进一步扩展行业协会发挥自律作用的空间。例如，2019年6月，中国人工智能产业发展联盟发布《人工智能行业自律公约（征求意见稿）》，坚持以合法、正当、必要的原则收集和使用个人信息，加强对未成年等特殊数据主体的隐私保护，强化技术手段确保数据安全。

综上，人工智能产业发展如火如荼，数据法律发展任重道远。

参考文献：

1. 中国信息通信研究院安全研究所《人工智能数据安全白皮书（2019）》2. 中国网络安全与信息化产业联盟数据安全治理委员会《数据安全治理白皮书》3. 中国信息通信研究院、中国人工智能产业发展联盟的《人工智能发展白皮书产业应用篇（2018年）》

作者简介

游闽键

上海市协力律师事务所律师

主要致力于版权、商标、专利IT法律、网络与电子商务、公司金融、知识产权融资交易等领域的法律工作。

上海市十一、十二、十三届政协委员，上海知识产权研究所高级研究员，上海市文化创意产业协会副会长、上海市版权协会副会长，浦东新区专业机构从业人员联谊会会长，上海市社联委员，世界知识产权组织（WIPO）仲裁与调解中心调解员及仲裁员、上海国际仲裁中心仲裁员。

2003年获得上海市十佳青年律师和上海市新长征突击手称号；2007年获得首届东方大律师称号；2008年当选全国优秀律师；2009年获上海市司法行政系统个人三等功；2013年获“国家实施知识产权战略实施先进工作者”并入选“中国律师行业新闻人物”；2015年获“上海市劳动模范”、“全国劳动模范”荣誉称号；2017年荣列LegalBand中国顶级律师排行榜知识产权第一梯队律师、“ALB中国十五佳知识产权律师”；2018年荣列第五界强国知识产权论坛“年度十佳知识产权大律师”、LegalBand“知识产权诉讼第一梯队律师”、MIP“商标领域IP Star”、2018上海市统一战线（工作）先进个人荣誉称号。

谢媛

上海市协力律师事务所知识产权团队

国际合作部秘书长

上海市协力律师事务所知识产权团队，华东政法大学及英国爱丁堡大学双硕士。
（本文为授权发布，未经许可不得转载）

近期活动 1

想看更多经典案例？
聆听更多精彩点评？
游闽键律师带你畅游知产世界！

近期活动 2

“听书”火热上线，详情请戳！👇

近期活动 3

你有一本电子游戏宝典待查收，详情请戳！👇 近期热文

SHIPA